Anthropic detiene los ataques de IA rusa y china contra los modelos Claude en medio de crecientes amenazas cibernéticas que utilizan inteligencia artificial.
Anthropic ha informado de importantes interrupciones en diversos usos maliciosos de sus modelos Claude, con especial atención a las ciberamenazas vinculadas a Rusia y China. En los últimos ocho meses, Anthropic identificó y neutralizó intentos de explotar su tecnología de IA, incluida una presunta campaña de ciberespionaje relacionada con Rusia y esfuerzos de empresas chinas por replicar las capacidades de Claude.
Abordamos las amenazas de la IA
El informe de inteligencia sobre amenazas de Anthropic indica que tanto los ciberdelincuentes como los hackers patrocinados por estados están utilizando cada vez más la IA para facilitar y ejecutar ciberataques.
La empresa señaló que los operarios humanos suelen desempeñar un papel de supervisión en lugar de participar directamente en estas operaciones.
Anthropic afirmó haber frustrado las actividades de siete laboratorios ubicados en China, entre ellos Alibaba , Moonshot, DeepSeek y Xiaomi.
Según los informes, Alibaba orquestó el mayor ataque ilícito con el objetivo de extraer las capacidades de Claude para mejorar sus modelos Qwen.
Durante este período, Anthropic detectó más de 151 millones de transacciones que involucraban a Alibaba, con una actividad que alcanzó un pico de casi 3 millones diarias provenientes de más de 3.500 cuentas fraudulentas.
El proceso de destilación permite desarrollar modelos de IA más pequeños utilizando los resultados de modelos más grandes para reducir los costos de entrenamiento.
Moonshot y DeepSeek están acusadas de enviar interacciones reales con clientes, que podrían haber contenido datos confidenciales, a través de Claude con fines de entrenamiento.
Se alega que un grupo vinculado a Rusia, conocido como Midnight Blizzard, llevó a cabo operaciones de phishing dirigidas a funcionarios ucranianos utilizando inteligencia artificial en todas sus actividades.
Según se informa, el grupo desarrolló un sistema que identifica y evade las medidas de seguridad reescribiendo su código malicioso para evitar ser detectado.
Preocupaciones de seguridad constantes
Anthropic continúa monitorizando las amenazas relacionadas con la IA a medida que evolucionan los ciberataques.
El objetivo sigue siendo comprender y mitigar los riesgos asociados al uso malintencionado de las tecnologías avanzadas de IA.
A medida que se desarrollan los acontecimientos, la empresa subraya la importancia de mantenerse alerta ante las amenazas emergentes.
Fuente: reuters
